Експертите на бившия Openai и висши AI се стремят да блокират предложеното преструктуриране с печалба

Бивши чиновници на Openai и водещи специалисти по изкуствен интелект сплотяват старания, с цел да се опълчват на прехода на производителя на Chatgpt към компания с облага поради опасенията по отношение на заплахите от предплатената технология.

водещи възпитаници Geoffrey Hinton, Margaret Mitchell и водещи възпитаници, както и 10-ите предходни отворени. Служителите са най-новите числа, които приканват американските управляващи да блокират препоръчаното от стартирането прекосяване от конструкция с нестопанска цел към корпорация за социална изгода (PBC).

In a joint letter submitted to the California and Delaware attorneys-general on Tuesday night, the group opposed the move while echoing the concerns of Elon Musk, who is fighting a legal battle in an effort to stop the conversion.

The signatories argue that the proposed restructuring would transfer control of the development of artificial general intelligence (AGI) — computer systems with equal or superior cognitive abilities to most Хората - на компания, водена от облаги.

Те прибавиха, че това опонира на основателната задача на Openai да подсигурява, че AGI се възползва от цялото човечество, а не „ частната облага на който и да е човек “.

„ Бих желал [Openai] да извърши тази задача, вместо да обогати своите вложители “, сподели Хинтън, Абелов лауреат и професор в университета в Торонто. Планирайте да се трансформирате в индивид с облага до края на тази година.

Без превключването, основаната в Сан Франциско компания, ръководена от основния изпълнителен шеф Сам Алтман, рискува да се откаже от някои от последните си вложения в размер на 30 милиарда $ от SoftBank, както и спомагателни вноски от вложители в предходни кръгове. Съперници като Гугъл и META влагат стотици милиарди долари за развиване на технологията, нейните вложители „ се нуждаят от стандартна правдивост и по -малко структурна поръчка “, с цел да извършат спомагателен капитал.

Но Пейдж Хедли, един от някогашните чиновници на Openai, да е подписал писмото, противопоставящо се на нейното превръщане, сподели: „ Състезанието не е задача на Openai. По всички сметки тя към този момент беше извънредно сполучлива при набирането на пари. ”

Той добави:„ Съгласно PBC, Съветът няма да има доверително обвързване към бенефициентите на задачата, обществеността. . . and if the board does not fulfil its fiduciary duty to shareholders, they would have recourse. ”

OpenAI has a complex financial structure. In 2019, it created a for-profit subsidiary, which capped returns for investors and gave its non-profit board full control over the for-profit arm.

Under the proposed changes, the non-profit board would have a stake in the for-profit entity and certain voting права, само че това би имало доста по-традиционна конструкция на вложителите.

„ Нашата нестопанска цел ще бъде засилена и всички промени в съществуващата ни конструкция биха били в услуга за гарантиране на по-широката общност, може да се възползва от AI “, споделя Openai в изказване. Добавено.

Генералният юрист на Калифорния и Делауеър, които имат пълномощия за решението, защото Openai се основава и включи в техните страни, носете отговорност да подсигуряват, че преобразуването е в публичен интерес и на обективна стойност.

Писмото, адресирано до тях, се твърди, че структурата на Openai е основана да балансира пазарните сили със своята задача и препоръчаните промени ще изоставят тези ограничения за финансов напън.

Openai преди този момент предизвести, че AGI ще сътвори „ сериозен риск от корист, фрапантни злополуки и разрушение на обществото “.

Алтман подписа изказване през май 2023 година, което предизвести, че „ смекчаването на риска от изгубване от AI би трябвало да бъде световен приоритет, дружно с други опасности в обществената мащаб, като да вземем за пример пандемиите и нуклеарната война “.

„ Ако Openai Cedes управлява своята заложна цел. доста увеличете възможностите на това, което личният му изпълнителен шеф дефинира като „ светлини за всички нас “, споделя Ръсел, професор по компютърни науки в Калифорнийския университет, Беркли.